BOUND: Brief-Guided Corrective Preference Distillation at Search-Control Boundaries
搜索控制边界的简报引导纠正性偏好蒸馏
🧭 LLM搜索代理·漂移纠正与偏好蒸馏 ★ 深度解读
Renmin University of China · Alibaba Group
通过任务锚定的搜索状态简报从学生交动中构造状态匹配偏好对，纠正持久搜索漂移
📌 工作参考价值（4 点）
- 训练搜索/对话代理时，可为每个决策时刻构建一份教师端 search-state brief（含原始目标、关键约束、已获证据与缺失信息），以此作为训练时的特权参考，避免教师被学生已产生的误导上下文带偏。
- 利用学生自身交动的失败轨迹构造 状态匹配偏好对：失败步骤的原始延续 vs 教师针对该错误生成的纠正延续；成功轨迹中，最早的证据支撑答案 vs 不必要的继续检索。仅在训练时使用这些偏好执行 DPO，推理时无需额外开销。
- 偏好对的选择应结合 brief引导的局部错误评估与 rollout 最终结果，不预设失败轨迹中每一步都错，也不丢弃成功轨迹中的终止监督信号，以此过滤噪声样本。
- 电商场景的多步商品检索或客服代理，常因召回的相关文档引发主题漂移或约束丢失；可借鉴 BOUND 在状态层面锚定原始意图与约束，通过 DPO 巩固正确的搜索控制决策。